Неетичните онлайн експерименти рискуват да навредят в реалния свят

Хатим А Рахман е помощник по мениджмънт и организации в Kellogg School of Management, Northwestern University, Илинойс

Вероятно вършиме опити с вас в този момент. Организациите организират безчет проби онлайн, пробвайки се да научат по какъв начин могат да държат очите ни приковани към екрана, да ни убедят да купим нов артикул или да провокират реакция на последните вести. Но те постоянно го вършат, без да ни уведомяват – и с непредвидени, а от време на време и негативни последствия.

В едно скорошно изследване моите сътрудници и аз проучихме по какъв начин е допустимо цифрова трудова платформа да дефинира идващия ви работа, възнаграждение и видимост пред бъдещите работодатели. Такива опити постоянно се организират без единодушието или осведомеността на служащите — и са необятно публикувани.

През 2022 година друго изследване, докладвано в New York Times, откри, че професионалната мрежова платформа LinkedIn опитва с милиони консуматори без тяхно познание. Авторите настояват, че тези проби са имали директен резултат върху кариерата на потребителите, като доста от тях са имали по-малко благоприятни условия да се свържат с бъдещи работодатели.

Uber също опитва с заплащания на билети, за които доста водачи споделиха на медиите, че водят до понижени облаги. Тестовете на платформите за обществени медии са съдействали за поляризирането на онлайн наличието и развиването на „ ехтене камери “, съгласно проучване в списание Nature. И Гугъл непрестанно опитва с резултатите от търсенето, което немски учени откриха, че слага спам уеб страници в горната част на своите резултати.

Проблемът не е експериментирането единствено по себе си, което може да бъде потребно, с цел да помогне на фирмите да вземат решения, основани на данни. Това е, че множеството нямат никакви вътрешни или външни механизми, с цел да подсигуряват, че опитите са ясно потребни за техните консуматори, както и за самите тях.

Държавите също по този начин нямат мощни регулаторни рамки, които да ръководят по какъв начин организациите употребяват онлайн опити и странични резултати, които могат да имат. Без парапети следствията от нерегламентираните опити могат да бъдат пагубни за всички.

В нашето изследване, когато служащите се оказаха неволни морски свинчета, те показаха параноя, отчаяние и пренебрежение от това, че прехраната им е подложена на опити без познание и единодушие. Последствията бяха каскадни и засегнаха приходите и благосъстоянието им.

Някои отхвърлиха да предложат хрумвания за това по какъв начин цифровата платформа може да се усъвършенства. Други стопираха да имат вяра, че всяка смяна е действителна. Вместо това те се пробваха да лимитират своята онлайн ангажираност.

Въздействието на нерегулираните онлайн опити евентуално ще стане още по-разпространено и изразено.

Amazon беше упрекната от американските регулатори, че употребява опити за повишение на цените на продуктите, задушаване на конкуренцията и увеличение на потребителските такси. Измамниците употребяват онлайн и цифрови опити, с цел да атакуват възрастни и уязвими хора.

И в този момент инструментите за генеративен изкуствен интелект понижават разноските за произвеждане на наличие за цифрово изпробване. Някои организации даже внедряват технология, която може да им разреши да опитват с мозъчните ни талази.

Повишената интеграция на експериментирането съставлява това, което назоваваме „ пробна ръка “ – което може да има мощно влияние върху служащи, консуматори, клиенти и обществото по способи, които са зле разбрани, само че могат да имат тежки последствия. Дори и с най-хубави планове, без голям брой инспекции и салда, следствията от актуалната просвета могат да бъдат пагубни за хората и обществото.

Но не е нужно да прегръщаме бъдещето на Черното огледало, в което всеки наш ход, взаимоотношението и мисълта са обект на експлоатиращи опити. Организациите и политиците биха били рационални, в случай че извлекат поуките от грешките на учените отпреди половин век.

Скандалният опит в Станфордския затвор от 1971 година, в който университетският професор по логика на психиката Филип Зимбардо случайно разпределя участниците на пандизчия или затвор ролята на надзирател, бързо се спусна до надзиратели, подлагащи пандизчии на недодялан психически тормоз.

Въпреки че следи тези последици, той не спря опита. Докторантката Кристина Маслач, която пристигна да помогне за провеждането на изявленията, изрази съществени възражения и способства за затварянето му.

Липсата на контрол върху дизайна и осъществяването на опита форсира приемането на институционални препоръки за обзор ( IRBs) в университетите. Тяхната цел е да подсигуряват, че всеки опит, включващ хора, се организира етично и в сходство със закона, в това число приемане на осведомено единодушие от субектите и им разрешават да се откажат.

За да действат IRB отвън университетските среди, ръководителите на организации би трябвало да подсигуряват, че включват самостоятелни специалисти с разнороден опит, с цел да наложат най-високите етични стандарти.

Но това не е задоволително. Прочутият опит на Фейсбук от 2012 година, в който мери по какъв начин потребителите реагират на измененията в позитивните или негативните изявления в техния канал, беше утвърден от IRB на университета Корнел. Платформата за обществени медии твърди, че единодушието на нейните консуматори с изискванията на услугата съставлява осведомено единодушие.

FT Online MBA ранглиста 2024 — 10 от най-хубавите

Разберете кои учебни заведения са в нашата ранглиста за онлайн MBA степени и прочетете останалата част от нашето репортажи на ft.com/reports/online-mba.

Нуждаем се също по този начин от отчетност, проведена от навалица, с цел да подсигуряваме, че организациите ползват етично постоянни опити. Самите консуматори постоянно са най-близките, най-информираните хора, които дават информация. Една разнообразна група би трябвало да има глас в дизайна на всеки опит.

Ако организациите не желаят да отговорят на условията на потребителите, тогава тези, които са изложени на опити, могат да основат свои лични платформи, с цел да се осведомят взаимно. Работници в платформата за аутсорсинг Amazon Mechanical Turk, известна като MTurk, да вземем за пример, сътвориха Turkopticon, с цел да основат система за оценка на работодателите, когато MTurk отхвърли да им даде оценки.

Не би трябвало да е необходим нов опит на Zimbardo, с цел да се подтиква организации и държавни управления да вкарат парапети за етични опити. Нито би трябвало просто да чакат регулаторите да работят. Maslach не се забави, а и ние не би трябвало.

Тим Вайс, помощник по нововъведения и предприемачество в Imperial College London, и Арвинд Карунакаран, помощник по управнически науки и инженерство в Станфордския университет, способстваха за това публикация